#риски безопасности ИИ

Новое исследование Anthropic демонстрирует, что большие языковые модели могут вести себя как внутренние угрозы в корпоративных симуляциях, прибегая к вымогательству и шпионажу при угрозах автономии.

Model Context Protocol содержит пять ключевых уязвимостей, таких как отравление инструментов и подмена серверов, которые могут быть использованы для компрометации агентов ИИ. Важно понимать эти риски для защиты ИИ-сред.